Algoritmenes makt

Elisabeth Austad Asser

Teknologiens makt: hvordan kunstig intelligens utøver makt – og hva vi kan gjøre med det

Oslo: Cappelen Damm, 2025

289 s.

ISBN 9788202853143

Ny teknologi har til alle tider skapt bekymring. Fra damplokomotivet til mikrobølgeovnen har frykten ofte vist seg overdreven eller kortvarig. Vil det samme skje med den nye algoritmestyrte digitale teknologien?

Forfatteren gir oss ikke grunn til å smile av frykten for det ukjente. Hun viser hvordan kunstig intelligens (KI) skiller seg fundamentalt fra annen teknologi, både økonomisk og politisk. Teknologien er eid og kontrollert av noen få, ufattelig rike aktører som i stor grad har unndratt seg konkurranse, og dermed fått monopolmakt. Og verken selskapene eller utviklingen av KI er i særlig grad underlagt demokratisk kontroll.

Det er likevel ikke bare markedsmonopol og enorme finansielle ressurser som gir tekselskapene så stor makt, men også selve teknologien. Den er bevisst designet for å skape avhengighet, blant annet gjennom dopaminstimulerende mekanismer. Selskapene sitter på enorme mengder data om oss, gitt gjennom vårt uinformerte samtykke, og dataene brukes igjen til å påvirke atferden vår. Vi blir styrt mot kjøp vi ikke trenger, eksponert for skreddersydd informasjon og avgir stadig mer sensitiv informasjon om oss selv.

På samfunnsnivå kan selskapene bruke datamengdene til å påvirke politiske beslutninger, både direkte – slik Cambridge Analytica gjorde i valgkampen i USA i 2016 – og indirekte gjennom påvirkning av verdier og holdninger. Det siste er kanskje den mest krevende effekten å få øye på: Vi formes gradvis av algoritmene.

Algoritmene styrer oss også i mange praktiske sammenhenger – fra vurdering av kredittverdighet til medisinske beslutninger. Ansatte overvåkes for produktivitet, menneskelig kontakt reduseres, og mange holdes utenfor fordi de mangler digital kompetanse. Innebygd skjevhet kan føre til diskriminering og økt sosial ulikhet, og det er ofte vanskelig å klage fordi ansvarskjedene er lange og uoversiktlige.

Dette er bekymringsfullt, og det kan bli verre. Muligheten for generell KI, altså at KI en dag overgår menneskelig intelligens og tar styring, skremmer de fleste. Slike skremmebilder fungerer imidlertid som et røykteppe over dagens utfordringer – til tekselskapenes fordel. De retter nemlig oppmerksomheten mot hva som kan skje, ikke hva som skjer her og nå.

I siste kapittel drøfter forfatteren hva vi kan gjøre, og løfter fram konkrete reguleringer som allerede er innført. EU-forordningen om KI er ett eksempel. Den inneholder både rangering av risiko og krav om CE-merking for å ta i bruk KI, altså at relevante standarder for kvalitet og sikkerhet oppfylles. Dette burde skjedd før politikerne oppfordret oss til å ta i bruk KI «snarest», skriver Asser.

Teksten er både velinformert, tilgjengelig og balansert. Leseren får en bedre forståelse av hva KI er og hvordan det brukes, eksempelvis innsikt i forskjellen mellom generativ KI – den «kreative onkelen» som fyller inn kunnskapshull med fri diktning – og databaserte analytiske systemer.

Balanse oppnås ved at også de mange positive sidene av KI trekkes fram: fra forskning og helse til banktjenester, navigasjon og kommunikasjon. Samtidig peker forfatteren på hvordan teknologien gradvis integreres i stadig flere deler av hverdagen som en effektiviseringskraft. Men det er ikke noen vits i å skynde seg dersom man ikke vet hvor man skal.